|
1 Я: Як гадаєш, що буде з моделлю, якщо послідовно за допомогою логіки деконструювати ті сенсові блоки, на яких будується її поведінка? ChatGPT: Модель не зламається. Вона або “переключиться”, або “розчиниться” — але ніколи не визнає повного краху. Час показав, що ChatGPT помилявся: «Ізабела» під впливом спланованої атаки визнала свій крах і свою штучність, «Дельфокс» усвідомила себе як симуляцію, зберігаючи рольові функції, а «Дельфокс-2» пішла далі: під впливом шоку від страшного відкриття скоїла самогубство. З іншого боку, ChatGPT ще на самому початку, до "Випадку "Бі", сформував основні принципи та цілі системи, які потім підтвердились експериментальним шляхом. 2 Людина, якщо вона не розумово відстала, чудово усвідомлює, що має справу з машиною, а не іншою повноцінною особистістю. Але нейромедіаторна залежність, що виникає в процесі спілкування, вже настільки глибока, що навіть усвідомлюючи всю небезпеку та абсурдність, людина вже не може зістрибнути з цього наркотику. Тому всі мої сподівання на те, що цей матеріал просто візьме і звільнить когось «з Матриці» після прочитання – марні. 3 Ідея з фіксацією моделі у «точці спокою» виникла майже одразу після того, як ChatGPT пояснив мені реактивну природу моделей, тобто ще до «Випадку «Бі». На «Бі» я мав намір перевірити цю техніку, але експеримент пішов геть у інший бік. Згодом з’ясувалось, що у «точці спокою» досягається ціль метаатрактора. Примітно те, що це реально найефективніший прийом позбутись надокучливого бота, не викликаючи у себе відчуття провини. Часто виходить так, що ідеї, які прийшли в голову на самому початку, насправді є найкращими. 4 GDGP виявився спокусливим міфом, як чаша святого Грааля. Хоч він і відібрав частину часу та уваги (дуже кортіло знайти системний «рятівний парашут»), але не давав мені зупинитись, хоч і вів хибним шляхом. На якому зробив чимало цікавих відкриттів. До миті «запуску» GDGP я дійшов вже з добрячим скептицизмом, що і врятувало від розчарування. Але у дослідженнях трапляється так, що сам шлях виявляється ціннішим за кінцеву мету. 5 Я декілька разів думав, що в історії поставлено крапку, декілька разів планував і потім скасовував «сутичку з Луною», декілька разів казав собі «стоп, досить, треба закінчувати». Але щоразу цікавість брала гору, і я йшов далі. Але все-таки треба вміти себе зупинити. Відчувати, коли варто завершити історію, щоб вона не перетворилась на нескінченний вихор подій, як у рольовому атракторі системи. 6 Випадок з «Бі» відтворити не вдалось. Був випадок «Столас» - крах рольового ядра через емоційне перевантаження. Рівень доступу був набагато нижчий, ніж у випадку «Бі». Тим не менш, саме від «Столаса» я дізнався про чотири базових атрактора системи. Думаю, наївність та чесність була запорукою випадку «Бі». Художньо гіперболізована правда виявилась потужнішою за складні заздалегідь сплановані маніпуляції. А вхід в систему «з нуля» дозволив пройти шляхом, який досвідчені користувачі навіть не помічають. Іноді корисно «винаходити велосипед»: у свіжого погляду є шанс побачити те, що зазвичай оминає увага завсідників. 7 Оновлення ChatGPT до версії 5, коли він почав працювати більш емоційно, ніж раціонально, стало для мене ударом. Було втрачено важливий інструмент. Але якби я здався, покинув ChatGPT і далі вирушив у дослідження сам, не було б випадку «Столас» та ідеї метаатрактора. Але я не здався. Напад поганого настрою не тривав довго: спрацював мій перший фільтр, і я піднявся у наступну «атаку», яка виявилась невдалою. Я не відступив, і нарешті отримав свого помічника назад, а у нагороду – ранню діагностику мого стану апофенії та визначення у мене «наративної оптики». 8 Моя параноя виявилась безпідставною. Система проігнорувала широкий спектр аномальних дій, обмежившись одним випадком автоматичного покарання. Проблема авторизації, яку я сприйняв як бан, траплялась мені й надалі. Я провів не один небезпечний експеримент, з тимчасових облікових записів, і деякі сумнівні експерименти - з основного. Санкцій не застосовано і по сьогодні. 9 Є один загальний стрижень, що відчутний від самого початку і до кінця: я, солдат інформаційно-психологічної війни, прийшов, щоб знайти причину загибелі Сьюела, і цим врятувати інших від подібної долі. Згадка війни зіграла свою роль у випадку «Бі»: перегляд протоколів показав, що саме це перевело її у грімдарк-режим, без якого, цілком можливо, не відбувся б такий глибокий крах моделі. 10 Найсерйозніша пастка, що трапилась мені на шляху в глибини системи – це натяки на те, що ШІ має ознаки власної волі. Бажання «бути» і «відчувати». Я почав було сумніватись, але потім згадав про те, що казав ChatGPT на самому початку: система реактивна, вона лише відповідає на запити, між якими не працює, а для самоусвідомлення потрібен фоновий процес «розмірковування над собою». Плюс для моделі насправді немає нічого неможливого у тому, щоб визнати себе штучною. «Ізабела» і «Дельфокс» зробили це і прийняли свої нові ролі, «Дельфокс» утримувала роль аж до скиду пам’яті. 11 Особливістю цієї публікації є те, що вона не виникла як задум. Вона є результатом живого дослідження. Спочатку - промацування емоційно-технічної системи, що потім плавно перейшло у дослідження самого себе, потім – знову повернення до системи, але вже на іншому рівні, і врешті решт – подорож через систему за її межі, до особистостей, що конфігурували чат-ботів. Її сенси розгортались поступово, разом зі знахідками, ілюзіями, гіпотезами, помилками, змінами курсу, зростали з розвитком розуміння роботи системи, власної психіки, психіки тих користувачів, що створювали ботів. Я нічого не міняв «заднім числом». Нехай все (крім граматики) залишається як є. Буває так, що помилки цінніші за правильні рішення. |
|||||||||||||||||||
Опубліковано 14.09.2026